Năm 172 đời Hán Linh Đế, trong quận Cối Kê có người tên là Hứa Xương dấy binh chống triều đình ở Cú Chương, tự xưng là Dương Minh hoàng đế, có hơn 1 vạn quân, đánh phá khắp nơi. Tôn Kiên mới 18 tuổi, làm tư mã trong quận bèn chiêu tập hơn 1000 quân[5], hợp lực cùng quân sĩ trong các châu, dẹp được Hứa Xương. Thứ sử Tang Bân tâu lên triều đình, Tôn Kiên được thăng làm Huyện thừa huyện Diễm Độc[6], mấy năm sau lại được phong làm Huyện thừa ở Vu Thai rồi huyện Hạ Bì.

Tôn Kiên làm huyện thừa ở 3 huyện, tại đâu cũng nổi tiếng, được nhiều người ngưỡng mộ. Ông giao du với nhiều nhân tài, đối đãi rất hậu.

Năm 184, anh em Trương Giác cầm đầu khởi nghĩa Khăn Vàng chống nhà Hán, thanh thế rất lớn. Trong các tướng được triều đình cử ra mặt trận, Chu Tuấn tiến cử Tôn Kiên làm Tả quân tư mã. Tôn Kiên chiêu mộ quân sĩ ở vùng Hoài, Tứ, dồn thêm binh mã có từ trước được hơn 1000 người[7], theo Chu Tuấn đi đánh quân Khăn Vàng.

Tôn Kiên khỏe mạnh, dũng mãnh xông trận, thường một mình đánh sâu vào trận địa. Có lần ông bị thương nằm ngã xuống cỏ, mọi người tìm không thấy, nhờ có con ngựa chiến hí vang nên quân sĩ tìm thấy ông mang về dưỡng thương. Vừa đỡ vết thương ông lại xin ra trận[7].

Quân Khăn Vàng bị dẹp. Lực lượng tàn dư cố thủ ở Uyển Thành. Tôn Kiên làm tiên phong cho Chu Tuấn, một mình đảm nhận đánh một mặt thành, xông pha đi đầu, cuối cùng hạ được Uyển Thành.

Chu Tuấn tâu báo về triều đình về công trạng của Tôn Kiên, ông được phong làm Biệt bộ tư mã.

Năm 186, Biên Chương, Hàn Toại khởi binh ở Tây Lương chống lại triều đình. Đổng Trác đi đánh bị thua trận. Hán Linh Đế bèn cử Trương Ôn ra trận. Trương Ôn đề cử Tôn Kiên đi cùng giữ chức Tham quân.

Trương Ôn mang quân ra Trường An, viết thư gọi Đổng Trác mang quân về phối hợp. Đổng Trác muốn kháng lệnh, dây dưa thời gian, đến trễ hẹn. Khi bị trách cứ, Đổng Trác cãi lại. Tôn Kiên bèn nói riêng với Trương Ôn, vạch 3 tội và xin giết Đổng Trác, nhưng Trương Ôn cho rằng Đổng Trác có uy tín với dân Tây Lương, nếu giết đi thì sợ người bản địa không ủng hộ.

Tuy cuối cùng Trương Ôn không nghe lời ông nhưng Tôn Kiên vì việc này rất được mọi người khen ngợi. Khi trở về, ông được thăng làm Nghị lang.

Năm 187, Khu Tinh ở quận Trường Sa khởi binh chống triều đình, tự xưng là Tướng quân, tập hợp hơn 1 vạn quân tấn công các thành trì. Hán Linh Đế phong Tôn Kiên làm Thái thú Trường Sa đi dẹp. Ông tập hợp các quan tuần lại trong vùng, dặn họ làm tốt việc hậu cần và hành chính, còn mình sẽ đảm nhiệm việc giao chiến. Kết quả chỉ trong 1 tháng, Tôn Kiên dẹp được Khu Tinh[8].

Cùng lúc, Chu Thiều và Quách Thạch cũng nổi dậy ở các quận Linh Lăng, Quế Dương, có qua lại với Khu Tinh. Tôn Kiên mang quân tới dẹp nốt lực lượng này, khiến cả ba quân đều trở lại ổn định. Trong quá trình chiến sự, Thái thú Lư Giang là Lục Khang có người cháu đang đảm nhận chức huyện lệnh Tuyên Xuân, người này cầu cứu Tôn Kiên. Viên chủ bạ dưới quyền ông khuyên không nên đánh ra ngoài địa bàn mình quản lý, nhưng Tôn Kiên cho rằng đánh dẹp vì nước thì không phân biệt lãnh địa nơi nào, bèn dẫn quân tới cứu viện, đánh lui quân nổi dậy.